• Năm 1977, ông được bổ nhiệm làm Tư lệnh Quân chủng Hải quân kế nhiệm ông Nguyễn Bá Phát và giữ chức vụ này đến năm 1980.
• Năm 1980, ông được phong hàm Trung tướng
• Năm 1984, ông một lần nữa lại được giao nhiệm vụ làm Tư lệnh Quân chủng Hải quân.
• Năm 1988, ông được phong làm Đô đốc đầu tiên và cũng là duy nhất của Hải quân Việt Nam cho đến năm 2011, người thứ hai nhận vinh dự này sau ông là Thứ trưởng Bộ quốc phòng Nguyễn Văn Hiến. Theo Luật sĩ quan Quân đội Nhân dân Việt Nam (2014) thì Phó Đô đốc là bậc quân hàm cao nhất của quân nhân giữ chức vụ Tư lệnh Quân chủng Hải quân. Chỉ phong Đô đốc tương đương Thượng tướng khi Tư lệnh và Chính ủy Quân chủng Hải quân Việt Nam kiêm nhiệm một trong những chức vụ như: Thứ trưởng quốc phòng, Phó Tổng tham mưu trưởng, Phó Chủ nhiệm Tổng cục chính trị.

Ông chỉ đạo tập trung xây dựng lực lượng tàu mặt nước phù hợp với nền kinh tế của đất nước và điều kiện biển, đảo của Việt Nam, trong đó quan tâm đặc biệt đến việc đào tạo và sử dụng đội ngũ cán bộ thuyền. Xác định đất nước ta có bờ biển dài và có nhiều đảo xa bờ nên ông quan tâm đến lực lượng Hải quân đánh bộ, đặc công nước, pháo binh - tên lửa bờ biển. Các lực lượng này giữ vai trò quan trọng trong cấu thành lực lượng của hải quân hiện đại nói chung và Hải quân nhân dân Việt Nam nói riêng.

Ông cho rằng: Hải quân Việt Nam không thể thiếu các binh chủng không quân hải quân và tàu ngầm. Cùng với việc xây dựng các trung đoàn, lữ đoàn cơ động trực thuộc Quân chủng vững mạnh toàn diện, ông luôn quan tâm đến chất lượng các căn cứ, các vùng hải quân, các lữ đoàn thuộc vùng và các cơ sở bảo đảm kỹ thuật trên bờ để phục vụ các lực lượng của vùng, của Quân chủng thực hiện nhiệm vụ một cách tốt nhất.

Những năm làm Tư lệnh Quân chủng Hải quân, ông đặc biệt quan tâm đến hoạt động tác chiến. Để các lực lượng tác chiến thực hiện nhiệm vụ có hiệu quả, xử lý nhanh nhạy các tình huống trên biển, ông chỉ đạo cơ quan, đơn vị chăm lo bổ sung, kiện toàn, mở rộng và nâng cấp lực lượng bảo đảm cho tác chiến như: Thông tin, ra-đa, quan sát biển, trinh sát, bảo đảm hàng hải, công binh chiến đấu... Trong điều kiện đất nước ta còn nghèo, vũ khí trang bị của hải quân còn nhiều mặt hạn chế, chưa theo kịp yêu cầu nhiệm vụ, phải phát huy sức mạnh tổng hợp của các lực lượng trong Quân chủng, đồng thời phải huy động sức mạnh tổng hợp của cả nước để bảo vệ vững chắc chủ quyền biển, đảo của Tổ quốc.[1]

Bảo vệ chủ quyền đất nước.

Năm 1984 ông đã nhận định: "Trong tương lai gần, vùng biển khu vực Trường Sa không được bình yên và sẽ là chiến trường chính của hải quân Việt Nam". Trong hai năm 1986-1987, một mặt ông yêu cầu bộ phận tác chiến soạn thảo gấp kế hoạch và phương án phòng thủ Trường Sa, mặt khác ông chủ động và kiên trì đề xuất với Bộ Chính trị và Quân ủy Trung ương chấp thuận kế hoạch bảo vệ chủ quyền Việt Nam ở Trường Sa và thềm lục địa phía Nam. Kế hoạch bảo vệ Trường Sa của ông được cấp trên chấp thuận. Ông ra lệnh: nhanh chóng dốc toàn lực, đặc biệt là công binh, ra Trường Sa để tăng cường, củng cố tất cả đảo nổi đảo chìm mà quân dân Việt Nam đang đồn trú và sinh sống bao đời nay. Đối với những đảo chìm thuộc chủ quyền Việt Nam nhưng chưa có quân đồn trú, ông yêu cầu "kiên quyết đóng nhanh, đóng đồng thời tất cả các đảo, nếu cần có thể dùng mọi loại tàu để ủi bãi".

Sau đó đã xảy ra sự kiện Hải chiến Trường Sa 1988 với Trung Quốc. Tháng 3 năm 1988, con tàu HQ 505 anh hùng đã lao nhanh giữa những làn đạn đại bác, ủi thẳng lên đảo Cô Lin thuộc chủ quyền Việt Nam, trước khi quân địch đổ bộ chiếm đảo. Tàu hỏng nặng, bốc cháy, nhưng nó trở thành cột mốc chủ quyền và cờ đỏ sao vàng đã tung bay trên đảo Cô Lin cho đến ngày nay.[2]

Không lâu sau đó vì bạo bệnh nên ông mất ngày 23 tháng 3 năm 1990 tại Hà Nội.[3]